Continual Learning in Transition
持续学习的范式转变:从参数中心到系统级适应
🧭 持续学习 · 系统级适应框架
Institute of Automation, Chinese Academy of Sciences · National University of Singapore · Tsinghua University · Shanghai Jiao Tong University · Alibaba Group
提出三轴框架(何时、如何、何处)刻画持续学习从参数更新到系统级适应的演进
📌 工作参考价值(4 点)
- 系统级在线更新:推荐模型可将部分能力外置到记忆库或技能库中,新知识通过写入外部存储而非修改模型参数来实现,避免灾难性遗忘,适合高频变化的电商场景(如新品冷启、大促策略调整)。
- 推理时自适应:借鉴 test-time training 思想,在推荐服务推理阶段根据当前上下文(如用户实时行为)快速调整模型子集或 prompt,无需完整重训,降低延迟并提升实时性。
- 多策略混合更新:结合 off-policy(历史数据回放)与 on-policy(在线交互)更新,利用 LLM 驱动的 Agent 生成合成交互数据,平衡稳定性和探索,适合搜索广告的竞价策略持续优化。
- Agent 交互协议:将推荐系统组件(召回、排序、出价)作为 Agent,通过标准化协议交换记忆和技能,实现不同模块的独立持续进化,提升整体系统的长期适应能力。